对聚合物性质的准确预测在聚合物的开发和设计中具有重要意义。通常，需要进行昂贵且耗时的实验或模拟来评估聚合物的功能。最近，配备了注意力机制的变压器模型在各种自然语言处理任务中表现出卓越的性能。但是，这种方法尚未在聚合物科学中进行研究。在此，我们报告了TransPolymer，这是一种基于变压器的语言模型，用于聚合物属性预测。由于我们提出的具有化学意识的聚合物令牌，转染剂可以直接从聚合物序列中学习表示。该模型通过在大型未标记数据集上进行预处理，从而学习表达性表示，然后在下游数据集上进行有关各种聚合物属性的模型。转聚合物在所有八个数据集中都能达到卓越的性能，并且在大多数下游任务上都显着超过其他基线。此外，预处理的转聚合物对监督转聚合物和其他语言模型的改善增强了对代表学习中大型未标记数据预处理的显着好处。实验结果进一步证明了注意机制在理解聚合物序列中的重要作用。我们强调该模型是一种有前途的计算工具，用于促进数据科学视图中的结构 - 质谱关系。

流行的图神经网络模型在图表学习方面取得了重大进展。但是，在本文中，我们发现了一个不断被忽视的现象：用完整图测试的预训练的图表学习模型的表现不佳，该模型用良好的图表测试。该观察结果表明，图中存在混杂因素，这可能会干扰模型学习语义信息，而当前的图表表示方法并未消除其影响。为了解决这个问题，我们建议强大的因果图表示学习（RCGRL）学习可靠的图形表示，以防止混杂效应。 RCGRL引入了一种主动方法，可以在无条件的力矩限制下生成仪器变量，该方法使图表学习模型能够消除混杂因素，从而捕获与下游预测有因果关系的歧视性信息。我们提供定理和证明，以保证拟议方法的理论有效性。从经验上讲，我们对合成数据集和多个基准数据集进行了广泛的实验。结果表明，与最先进的方法相比，RCGRL实现了更好的预测性能和泛化能力。

虽然视觉变形金机在许多视觉任务中实现了骨干模型的优异性能，但大多数都打算捕获图像或窗口中所有令牌的全局关系，这会破坏2D结构中的补丁之间固有的空间和本地相关性。在本文中，我们介绍了一个名为SimVit的简单视觉变压器，将空间结构和本地信息合并到视觉变压器中。具体而言，我们引入多头中央自我关注（MCSA）而不是传统的多头自我关注以捕获高度局部关系。滑动窗口的引入有助于捕获空间结构。同时，SIMVIT从不同层提取多尺度分层特征以进行密集的预测任务。广泛的实验表明，SIMVIT作为各种图像处理任务的通用骨干模型是有效和高效的。特别是，我们的SIMVIT-MICRO只需要3.3M的参数，在Imagenet-1K数据集上达到71.1％的前1个精度，即现在是最小的尺寸视觉变压器模型。我们的代码将在https://github.com/cucasligang/simvit中提供。

Text-guided diffusion models have shown superior performance in image/video generation and editing. While few explorations have been performed in 3D scenarios. In this paper, we discuss three fundamental and interesting problems on this topic. First, we equip text-guided diffusion models to achieve $\textbf{3D-consistent generation}$. Specifically, we integrate a NeRF-like neural field to generate low-resolution coarse results for a given camera view. Such results can provide 3D priors as condition information for the following diffusion process. During denoising diffusion, we further enhance the 3D consistency by modeling cross-view correspondences with a novel two-stream (corresponding to two different views) asynchronous diffusion process. Second, we study $\textbf{3D local editing}$ and propose a two-step solution that can generate 360$^{\circ}$ manipulated results by editing an object from a single view. Step 1, we propose to perform 2D local editing by blending the predicted noises. Step 2, we conduct a noise-to-text inversion process that maps 2D blended noises into the view-independent text embedding space. Once the corresponding text embedding is obtained, 360$^{\circ}$ images can be generated. Last but not least, we extend our model to perform \textbf{one-shot novel view synthesis} by fine-tuning on a single image, firstly showing the potential of leveraging text guidance for novel view synthesis. Extensive experiments and various applications show the prowess of our 3DDesigner. The project page is available at https://3ddesigner-diffusion.github.io/.

作为一种成功的自我监督学习方法，对比学习旨在学习输入样本扭曲之间共享的不变信息。尽管对比度学习在抽样策略和架构设计方面取得了持续的进步，但仍然存在两个持续的缺陷：任务 - 核定信息的干扰和样本效率低下，这与琐碎的恒定解决方案的反复存在有关。从维度分析的角度来看，我们发现尺寸的冗余和尺寸混杂因素是现象背后的内在问题，并提供了实验证据来支持我们的观点。我们进一步提出了一种简单而有效的方法metamask，这是元学习学到的维度面膜的缩写，以学习反对维度冗余和混杂因素的表示形式。 MetAmask采用冗余技术来解决尺寸的冗余问题，并创新地引入了尺寸掩模，以减少包含混杂因子的特定维度的梯度效应，该效果通过采用元学习范式进行培训，以改善掩盖掩盖性能的目标典型的自我监督任务的表示。与典型的对比方法相比，我们提供了坚实的理论分析以证明元掩体可以获得下游分类的更严格的风险范围。从经验上讲，我们的方法在各种基准上实现了最先进的性能。

尽管自我监督的学习技术通常用于通过建模多种观点来从未标记的数据中挖掘隐性知识，但尚不清楚如何在复杂且不一致的环境中执行有效的表示学习。为此，我们提出了一种方法，特别是一致性和互补网络（Coconet），该方法利用了严格的全局视图一致性和局部跨视图互补性，以维护正则化，从而从多个视图中全面学习表示形式。在全球阶段，我们认为关键知识在观点之间隐含地共享，并增强编码器以从数据中捕获此类知识可以提高学习表示表示的可区分性。因此，保留多种观点的全球一致性可确保获得常识。 Coconet通过利用基于广义切成薄片的Wasserstein距离利用有效的差异度量测量来对齐视图的概率分布。最后，在本地阶段，我们提出了一个启发式互补性因素，该因素是跨观看歧视性知识的，它指导编码者不仅要学习视图的可辨别性，而且还学习跨视图互补信息。从理论上讲，我们提供了我们提出的椰子的基于信息理论的分析。从经验上讲，为了研究我们方法的改善，我们进行了足够的实验验证，这表明椰子的表现优于最先进的自我监督方法，这证明了这种隐含的一致性和互补性可以增强正则化的能力潜在表示的可区分性。

很少有学习模型学习人类注释有限，而这种学习范式在各种任务中证明了实用性数据使该模型无法充分探索语义信息。为了解决这个问题，我们将知识蒸馏引入了几个弹出的对象检测学习范式。我们进一步进行了激励实验，该实验表明，在知识蒸馏的过程中，教师模型的经验误差将少数拍物对象检测模型的预测性能（作为学生）退化。为了了解这种现象背后的原因，我们从因果理论的角度重新审视了几个对象检测任务上知识蒸馏的学习范式，并因此发展了一个结构性因果模型。遵循理论指导，我们建议使用基于后门调整的知识蒸馏方法，用于少数拍物检测任务，即Disentangle和Remerge（D＆R），以对相应的结构性因果模型进行有条件的因果干预。从理论上讲，我们为后门标准提供了扩展的定义，即一般后门路径，可以在特定情况下扩展后门标准的理论应用边界。从经验上讲，多个基准数据集上的实验表明，D＆R可以在几个射击对象检测中产生显着的性能提升。

基于对比度学习（CL）以成对的方式学习视觉表示。尽管流行的CL模型取得了长足的进步，但在本文中，我们发现了一种不断被忽视的现象：当CL模型接受完整图像训练时，以完整图像测试的性能要比前景区域的表现更好。当CL模型接受前景区域训练时，以完整图像测试的性能要比前景区域差。该观察结果表明，图像中的背景可能会干扰模型学习语义信息及其影响尚未完全消除。为了解决这个问题，我们建立了一个结构性因果模型（SCM），以建模背景作为混杂因素。我们提出了一种基于后门调整的正则化方法，即用元语义正常器（ICL-MSR）进行介入的对比度学习，以对所提出的SCM进行因果干预。可以将ICL-MSR纳入任何现有的CL方法中，以减轻代表学习的背景干扰。从理论上讲，我们证明ICL-MSR达到了更严格的误差。从经验上讲，我们在多个基准数据集上的实验表明，ICL-MSR能够改善不同最先进的CL方法的性能。

最近，在蒙版的图像建模中取得了重大进展，以赶上掩盖语言建模。但是，与NLP中的单词不同，图像的语义分解仍然使视觉和语言之间的掩盖自动编码（MAE）不同。在本文中，我们探讨了单词的潜在视觉类似物，即语义部分，并通过提出语义引导的掩盖策略将语义信息集成到MAE的训练过程中。与广泛采用的随机掩蔽相比，我们的掩蔽策略可以逐渐指导网络学习各种信息，即从部分内部模式到零件之间的关系。特别是，我们通过两个步骤实现这一目标。 1）语义部分学习：我们设计了一种自制的部分学习方法，通过利用和完善基于VIT的编码器的多头注意来获得语义部分。 2）语义引导的MAE（SEMMAE）训练：我们设计了一种掩盖策略，该策略从掩盖每个部分中的一部分贴片到掩盖图像中的一部分（整个）部分。关于各种视觉任务的广泛实验表明，Semmae可以通过集成语义信息来学习更好的图像表示。特别是，Semmae在Imagenet-1k上达到了84.5％的微调精度，这使香草Mae的表现优于1.4％。在语义细分和细粒度的识别任务中，Semmae还带来了重大改进并产生最先进的性能。

对比度学习重要的是什么？我们认为，对比度学习在很大程度上取决于信息丰富的特征或“硬”（正面或负面）特征。早期作品包括通过应用复杂的数据增强和较大的批量尺寸或内存库以及最近的作品设计精心设计的采样方法来探索信息丰富的功能，包括更有信息的功能。探索此类功能的关键挑战是，通过应用随机数据增强来生成源多视图数据，这使得始终在增强数据中添加有用的信息是不可行的。因此，从这种增强数据中学到的功能的信息有限。作为回应，我们建议直接增强潜在空间中的特征，从而在没有大量输入数据的情况下学习判别性表示。我们执行一种元学习技术来构建通过考虑编码器的性能来更新其网络参数的增强生成器。但是，输入数据不足可能会导致编码器学习折叠功能，从而导致增强发生器故障。在目标函数中进一步添加了新的注入边缘的正则化，以避免编码器学习退化映射。为了对比一个梯度背部传播步骤中的所有特征，我们采用了提出的优化驱动的统一对比损失，而不是常规的对比损失。从经验上讲，我们的方法在几个基准数据集上实现了最新的结果。